Tháng 8 năm 1944, ông vượt ngục, tham gia Cứu quốc quân, lấy bí danh Lê Hiến Mai, giữ chức Ủy viên phân khu ủy Phân khu Tuyên - Thái; Phái viên chính trị Giải phóng quân phụ trách Mặt trận Sầm Nưa, Xiêng Khoảng (Lào); Chính trị viên, Bí thư trung đoàn ủy. Tháng 3 năm 1946, ông làm Chính ủy, kiêm Tham mưu trưởng, Bí thư quân khu ủy Chiến khu 2, kiêm Chính ủy Trường bổ túc quân sự ủy viên hội.

Từ tháng 2 năm 1947 đến năm 1949, ông lần lượt giữ các chức vụ Chính ủy Mặt trận Tây Tiến, Liên khu 1, Bộ Tư lệnh Nam Bộ, kiêm Phân liên khu miền Đông Nam Bộ.

Năm 1948, ông được thụ phong quân hàm Thiếu tướng trong đợt phong hàm đầu tiên.[2]

Năm 1953, ông làm Tư lệnh, Bí thư quân khu ủy Phân liên khu miền Tây Nam Bộ.

Sau Hiệp ước Genève, ông tập kết ra Bắc.

Năm 1958, ông làm Chính ủy, Bí thư Đảng ủy Bộ Tư lệnh Pháo binh.[3]

Những năm đầu thập niên 60, ông chuyển sang công tác chính quyền, làm Bộ trưởng Bộ Thủy lợi và Điện lực (1960 - 1.1963) [4], Bộ trưởng Bộ Nông nghiệp (1963 - 1965) [5]

Tháng 4 năm 1965, ông quay lại quân đội làm Chính ủy, Bí thư đảng ủy Quân khu 4, Ủy viên Quân ủy Trung ương.

Năm 1967, ông làm Phó Chủ nhiệm Tổng cục Chính trị Quân đội nhân dân Việt Nam, Ủy viên thường trực Quân ủy Trung ương, kiêm Giám đốc Học viện Chính trị Quân sự;

Năm 1974, ông được thăng quân hàm Trung tướng.